论做成不可能之事
❦
❦
「坚持下去。」这是许多领域里许多高成就者都会给你的建议。一开始，我完全不理解这句话。
起初，我以为「坚持」就是每天工作 14 小时。显然，这世上确实有些人，能先在一份技术性工作上干满 10 个小时，然后再从吃饭、睡觉、上厕所之间的那些空档里，抓出剩下的零碎时间去写一本书。我不是那种人——就算到了现在，承认这一点还是会刺痛我的自尊。我明明正在做重要的事；我的大脑难道不该愿意每天投入 14 个小时吗？可它就是不愿意。每当工作变得太难以继续时，我就会停下来，去读点东西或者看点什么。正因为如此，多年来我一直以为自己完全缺乏「坚持」这种美德。
按照人类天性，Eliezer1998 会想出这样一些念头：「重要的是产出，不是投入。」或者，「懒惰也是一种美德——它会让我们从失败的方法上退开，去想更好的办法。」或者，「我做得比那些工时更长的人还好。也许对于创造性工作来说，你在某个瞬间的峰值产出，比一天工作 16 小时更重要。」也许那些著名科学家是被「努力工作是一种美德」这种说法里的深刻智慧给蛊惑了，因为如果努力工作比智能还不重要，那也太可怕了？
直到我回头看自己走过的 AI 之路，并意识到：几乎每一个重要问题的难度，我当初都高估了，我才理解了「坚持」这项美德。
听起来很疯狂，对吧？但先别急，听我说完。
当我最初决定挑战 AI 时，我想的是 40 年的时间尺度、曼哈顿计划、行星级计算网络、数百万程序员，以及可能经过增强的人类。
这是一种 AI 未来学里常见的失误模式，我也许以后会专门写它；它的表现是：从「我不知道怎么解决这个」一跃跳到「我来想象拿某种非常巨大的东西砸上去」。那个东西得大到，当你想象它时，这个想象本身会制造出足够强烈的情感启发式中的「震撼感」，强到足以和问题本身相匹配。（AI 邮件列表上现在就有个人到处说，AI 会花掉一千万亿美元——我们不可能不花一千万亿美元就搞出 AI，但只要花一千万亿美元，我们随时都能搞出 AI。）反过来，这就让你可以在不去满足那个显然不可能的要求——也就是理解智能——的情况下，自以为知道该怎么解决 AI。
所以，一开始我也犯了同样的错：我并不理解智能，于是就想象拿一个曼哈顿计划去砸这个问题。
但是，在算出地球每年的死亡率约为 5500 万、也就是每天 15 万之后，我并没有像受惊的兔子一样转身逃离这个巨大而可怕的问题。相反，我开始尝试弄明白：哪种 AI 项目能最快抵达那里。如果我能让智能爆炸提前一个小时发生，那对于爆炸前的一段职业生涯来说，也已经是合理的投资回报了。（那时我还不是从这个角度来思考：存在风险或友好型 AI（Friendly AI）。）
所以，我没有像受惊的兔子那样逃离这个巨大而可怕的问题，而是留下来看看，有没有什么是我能做的。
一个有趣的历史事实是：1998 年，我写过一篇很长的论文，提出该如何去创造一个能够自我改进、也就是所谓「种子」AI（seed AI——这个词正是我发明的）。后来成为机器智能研究所（Machine Intelligence Research Institute，MIRI）创始资助者的 Brian Atkins，当时刚把 Hypermart 卖给 Go2Net。Brian 给我发邮件，问我所描述的这个 AI 项目，是否是一支规模合理的团队可以走出去真正做到的事。「不能，」我说，「它需要一个曼哈顿计划和 30 年时间。」于是有那么一阵子，我们反而在考虑先做一家新的互联网创业公司，以便筹到资金，再去做 AI 上的真正工作……
再过了一两年，在我听说那种新潮的「开源」东西之后，我觉得有一些前期开发工作——比如新的计算机语言之类——是小型组织也能做的；MIRI 就是这么开始的。
当然，这整套策略完全错了。
但即便如此，我还是从「这事现在我根本无能为力」走到了「嗯……如果最初版本对足够多的人有用，也许能沿着开源开发走出一条渐进路径」。
那还是开天辟地的年代，所以我并不是在说这些想法是个好主意。但至少就我当时以为自己在做的那件事而言，一年的创造性思考，已经把那条看上去的路径缩短了：和我第一次接近它时相比，这个问题看起来稍微没那么不可能了。
更有意思的模式，是我进入友好型 AI 这件事本身。一开始，我压根没有考虑过友好型 AI——因为想要在什么才是正确行动方案这件事上欺骗一个超级智能，这显然既不可能，也毫无用处。
所以，从历史上看，我是从彻底无视一个「不可能」的问题，走到了去接手一个只是极端困难的问题。
这自然增加了我的总工作量。
对于试图在精确层面理解智能这件事，也是同样。最初，我把这个问题直接判成了不可能，于是也就把它从自己的工作量里删掉了。（事后看来，这种逻辑简直有点疯——自然不在乎你做不到什么；它在给你写项目需求时可不会管这些——但我至今仍常看到 AI 圈里的人这么干。）而要求自己达到精确标准，意味着我要投入比此前想象中更多的工作。但这也意味着，我开始真正去处理一个在不久之前还会被我直接判成彻底不可能的问题。
尽管 AI 中的单个问题，随着时间推移似乎变得没那么吓人了，但整座要攀登的山却变得更高了——正如传统智慧所说，本来就会如此——因为一个个问题被从「不可能」清单上拿下来，转而放进了「待办」清单。
当我注意到其他搞 AI 的人也在做同样的事时，我开始理解究竟发生了什么——也开始理解「坚持下去！」到底是什么意思：他们会对那些看起来明明很有解、至少在这类事情里算相对直接的问题，张口就说「不可能！」。但这些问题，在我当初第一次接近这个大问题的那个时间点上，也会显得极其可怕。
于是我意识到，「不可能」这个词其实有两种用法：
-
在给定公理前提下，对不可能性的数学证明；
-
「我看不出有什么办法能做到。」
不用说，我自己过去所有对「不可能」这个词的使用，都属于第二种。
每当你不理解某个领域时，那个领域里的许多问题都会显得不可能，因为当你向自己的大脑查询解决路径时，它返回的会是空值。但只有神秘问题，绝没有神秘答案。如果你在那个领域上花上一两年工夫，那么，如果你没有卡进任何死胡同，如果你又确实拥有推进所需的原生能力水平，你对它的理解就会更深。问题那种表面上的难度，也许会大幅下降。它不会再像对新手时期的你那样可怕。
而这种情况尤其容易出现在那些最「令人困惑」、看上去也最「吓人」的问题上。
正因为我们对恒星燃烧的过程有一些概念，所以我们知道：从零开始造一颗恒星并不容易。正因为我们理解齿轮，所以我们能证明：任何遵守已知物理规律的齿轮集合，都不可能构成一台永动机。这些都不是拿来练习「做成不可能之事」的好问题。
当你对一个领域感到困惑时，其中的问题就会显得非常吓人、非常神秘，而你向大脑发出的查询则会返回零个解法。但你并不知道，一旦困惑消散，还会剩下多少工作。当然，消解困惑本身也可能是个极其困难的挑战。但在这种情况下，实在不该轻易使用「不可能」这个词。困惑存在于地图之中，不存在于疆域之中。
所以，如果你在一个不可能的问题上持续工作了几年，而且你成功避开了或爬出了死胡同，又有足够高的原生能力来取得进展，那么，天知道，几年之后，它也许看起来就没有那么不可能了。
但如果一件事看起来不可能，你就不会去试。
这才是真正的恶性循环。
如果我当时没有处在一种足够有冲劲的精神状态里，以至于「40 年加一个曼哈顿计划」对我来说只意味着我们应该更早动手，那我就不会去试。我不会黏在这个问题上，也不会有机会变得没那么害怕。
我平时并不喜欢那种「相反的偏差会彼此抵消」的理论，但有时候运气好，事情确实会这样。如果我在一开始就看见了整座山——如果我在一开始就意识到，这个问题并不是造出一个能自我改进的种子，而是产出一个可证明正确的友好型 AI——那我大概当场就会原地起火。
即便如此，要想理解那些构成 AGI 研究者主体的、水平高于平均线的科学家们，有一部分就在于意识到：即使一个近乎不可能的问题要花他们 40 年时间，他们也并不会被某种驱力推着去接下它。总体来说，他们之所以会在那里，是因为他们找到了 AI 的钥匙；凭借那把钥匙，他们可以在短短五年里、无需那种惊人的艰难，就把问题解决掉。
Richard Hamming 过去常到处问他的科学家同事两个问题：「你这个领域里最重要的问题是什么？」以及，「你为什么没在做它们？」
很多时候，重要问题看上去就是庞大、可怕、令人生畏的。它们不会承诺你一年 10 篇论文。它们甚至根本不承诺你会有任何进展。你也许干上一年、五年、十年，都得不到任何回报。
而且并不少见的是：你这个领域里最重要的问题，恰恰就是不可能的。这就是为什么你看不到更多哲学家去做关于意识的还原论式分解。
尝试去做不可能之事，显然不是给所有人的。非凡的天赋，只不过是让你有资格坐上牌桌的底注。真正的筹码，是你生命里的那些年。如果把这些筹码押上去，然后输掉，这种可能性对你来说是无法承受的——那你就去做点别的吧。真的。因为你会输。
我不会去说什么「每个人一生中至少都该做一次不可能的事，因为它会教给你重要的一课」之类的话。绝大多数人绝大多数时候，以及所有人多数时候，都该老老实实做那些做得到的事。
永不放弃？别傻了。做不可能之事，应该只留给非常特殊的场合。学会何时该失去希望是人生中的一项重要技能。
但如果有某样东西，在你的想象中甚至比浪费自己的一生还要更糟；如果有某样东西，比 30 枚筹码——也就是 30 年人生——更重要；或者，如果对你来说，世上还有比一种充满不便的人生更可怕的事，那么你也许就有理由去尝试不可能之事。
穿越困难、坚持下去，当然有很多值得说的地方；但其中有一点必须明说：它确实会让事情一直保持困难。如果你受不了这一点，那就离远点！想获得光环与尊敬，还有更轻松的办法。我不希望任何人读了这篇文章之后，毫无必要地一头扎进一种永久艰难的人生。
但总而言之：处理重要问题所需的那种「坚持」，并不只有每天工作 14 小时这一项。
很奇怪，我们对自己身上哪些东西会注意到、哪些东西不会注意到，往往有某种模式。这种选择性并不总是为了给自己的自我形象吹气。有时候，它只是普通的显著性而已。
对我来说，持续工作始终是一场斗争，所以它很显眼：我注意到了，自己没法每天连续工作 14 个扎实小时。我却从没想到，「坚持」也许还适用于以秒或以年为单位的时间尺度。直到我看到一些人会对任何自己不想尝试的东西立刻宣告「不可能」，或者看到他们对那种看起来可能要花上几十年、而不是「五年」的工作有多么不情愿，我才意识到这一点。
那时我才意识到，「坚持」其实适用于多个时间尺度。在以秒计的时间尺度上，坚持就是「不要在一出现困难迹象时就立刻放弃」。在以年计的时间尺度上，坚持就是「即使一个问题难得离谱、做起来又很不方便、而且你去别处本可以拿到更高的个人回报，也依然继续做下去」。
去做那些非常困难、或者说「不可能」的事，
首先，你不能逃跑。这需要几秒钟。
然后，你得工作。这需要几个小时。
接着，你得坚持下去。这需要好几年。
在这三者之中，第一项我必须学会从原本的偶一为之，变成稳定做到；第二项对我来说至今仍是一场持续斗争；而第三项则来得很自然。